natural-language-processing deep-learning text-classification dnn pytorch artificial-intelligence question-answering knowledge-distillation sequence-labeling text-matching qna model-compression DeeplearningPython

LLaMA的解读与其微调(含LLaMA 2)：Alpaca-LoRA/Vicuna/BELLE/中文LLaMA/姜子牙

还开始研究一系列开源模型(包括各自对应的模型架构、训练方法、训练数据、本地私有化部署、硬件配置要求、微调等细节)该项目部分一开始是作为此文《》的第4部分，但但随着研究深入为避免该文篇幅又过长，将把『第...

ChatGLM两代的部署/微调/实现：从基座GLM、ChatGLM的LoRA/P-Tuning微调、6B源码解读到ChatGLM2的微调与实现

随着『GPT4多模态/Microsoft 365 Copilot/Github Copilot X/ChatGPT插件』的推出，绝大部分公司的技术产品服务，以及绝大部分人的工作都将被革新一遍类似iPhone的诞生大家面向iOS编程有了App Store现在有了...

Natural-Language-Processing-App:自然语言处理网络应用

标签： nodejs sass babel express webpack html5 css3 vanilla-javascript JavaScript

自然语言处理应用该项目正在进行中。对于这个项目，我将使用webpack捆绑我的所有依赖关系，并创建一个具有自然语言处理能力的新闻文章网站。安装： cd进入您的新文件夹并运行： npm install您可以使用此命令来...

NLP之GPT-3：《 Language Models are Few-Shot Learners》的翻译与解读

标签： GPT-3 自然语言处理

NLP之GPT-3：《 Language Models are Few-Shot Learners》的翻译与解读目录相关文章《GPT-3: Language Models are Few-Shot Learners》的翻译与解读 Abstract 摘要 1 Introduction 介绍 2 Approach方法 ...

SpringBoot集成权限认证框架(Sa-Token)

标签： SpringBoot RBAC sa-token

SpringBoot集成权限认证框架(Sa-Token) 介绍身份验证又称“验证”、“鉴权”，是指通过一定的手段，完成对用户身份的确认。身份验证的目的是确认当前所声称为某种身份的用户，确实是所声称的用户。...

深入理解深度学习——Word Embedding（四）：Skip-Gram模型的数学原理

标签：深度学习自然语言处理 embedding

我们在《Word Embedding（三）：Skip-Gram模型》中简单介绍了Skip-Gram的原理及架构，至于Skip-Gram如何把输入转换为词嵌入、其间有哪些关键点、面对大语料库可能出现哪些瓶颈等，并没有展开说明。...

natural-language-processing:使用sklearn的NLP的Python示例

标签： nlp machine-learning sklearn

自然语言处理使用sklearn NLP的Python示例自然语言处理 NLP是机器翻译背后的技术。它也适用于“文本到语音”（将语音命令转换为文本），字幕生成（可视化图像并生成简短描述）以及项目的问答类型（询问计算机并...

三种Cross-lingual模型 (XLM, XLM-R, mBART)详解

标签： Cross-lingual

XLM (Cross-lingual Language Model Pretraining) 尽管原有的BERT模型可以在上百种语言上进行预训练，但是语言之间的信息并不是互通的，不同的语言模型之间没有共享知识。Facebook的XLM模型克服了信

Paper：《GPT-4 Technical Report》的翻译与解读

标签：自然语言处理 GPT-4 ChatGPT

Paper：《GPT-4 Technical Report》的翻译与解读目录 Paper：《GPT-4 Technical Report》的翻译与解读 Abstract摘要 1、Introduction简介 ...2、Scope and Limitations of this Technical Report本技术报告的...

【论文整理】小样本学习Few-shot learning论文整理收藏（最全，持续更新）

标签：小样本学习综述 few-shot 小样本

一、综述类 1.Generalizing from a Few Examples: A Survey on Few-Shot Learning 2.Generalizing from a few examples: A survey on few-shot learning, CSUR, 2020. 3.Rethinkingfew-shotimage classification:...

ML之DR：T-SNE/TSNE(高维数据可视化+非线性降维)的简介、源码解读、案例应用之详细攻略

标签： T-SNE 非线性降维

ML之DR：T-SNE/TSNE(高维数据可视化+非线性降维)的简介、源码解读、案例应用之详细攻略目录 T-SNE/TSNE(高维数据可视化+非线性降维)的简介 T-SNE/TSNE的使用方法 ...T-SNE/TSNE(高维数据可视化+非线性降维)的...

GPT-3/ChatGPT复现的经验教训

标签： gpt-3 chatgpt 人工智能

为什么所有公开的对 GPT-3 的复现都失败了？我们应该在哪些任务上使用 GPT-3.5 ...

【NLP】第7章使用 GPT-3 引擎的Suprahuman Transformers的崛起

标签：自然语言处理 gpt-3 人工智能

(2020) 描述了 OpenAI GPT-3 模型的训练，该模型包含 1750 亿个参数，这些参数使用巨大的数据集学习，例如从 Common Crawl 数据中提取的 4000 亿字节对编码的令牌。具有大小为 100 的上下文窗口的 GPT-3 模型与大小...

机器翻译 bpe——bytes-pair-encoding以及开源项目subword-nmt快速入门

标签： bytes-pair-encoding 机器翻译

subword-nmt干啥用的解决未登录词问题的一种方法。在做nlp的时候，很多时候我们会对语料做一个预处理，生成语料的一个字典。为了不让字典太大，我们通常只会把出现频次大于某个阈值的词丢到字典里边，剩下所有的词...

【Hadoop】yarn-site.xml配置文件详解

标签： hadoop yarn-site.xml

<-- 允许跨域访问的来源，如果有多个，用逗号(,)分隔 --> <property> <name>hadoop.http.cross-origin.allowed-origins</name> <value>*</value> <......

NLP之GPT-2：GPT-2的简介(大数据/大模型/灵感点)、安装和使用方法、案例应用之详细攻略

标签：大语言模型自然语言处理 GPT-2

GPT-2的博客文章：《Better language models and their implications更好的语言模型及其影响》的翻译与解读 GPT-2的论文：GPT-2之《Language Models are Unsupervised Multitask Learners...

Java8新特性-Stream

标签： Stream Java8新特性-Stream

文章目录简介Stream 的特性创建Stream通过集合创建流通过数组创建流通过Stream.of方法创建流创建规律的无限流创建无限流创建空流Stream操作分类中间操作无状态filtermapflapMap有状态...

ChatGPT技术原理解析：从RL之PPO算法、RLHF到GPT4、instructGPT

标签： gpt-3 PPO算法强化学习

本篇ChatGPT笔记会全力做到，通俗易懂且循序渐进(尽最大努力让每一个初学者哪怕是文科生都能没有障碍的读懂每一字一句、每一个概念、每一个公式) 一方面，对于想了解ChatGPT背后原理和如何发展而来的，逐一阐述从GPT...

资源帖- low-light image enhancement 论文代码数据集

标签： Low-light Image 图像增强低光数据集

Eight Natural Images Captured in Very Low-Light Conditions https://uwaterloo.ca/vision-image-processing-lab/research-demos/vip-lowlight-dataset ReNOIR RENOIR - A Dataset for Real Low

多模态预训练模型选用指南（Vision-Language Pre-traning）

标签：多模态预训练视觉和语言

关于预训练的诸多模型，博主已经在以往的文章...本篇整理一下最近几篇关于Vision-Language Pre-traning(VLP)的综述文章，以及一篇很不错的，关于各个组件的选用指南文章。 VLP: A Survey on Vision-Language Pre-traini

A Comprehensive Guide to Transformer-based Natural Language Processing with Examples

标签：自然语言处理人工智能语言模型

但是,Transformer-based natural language processing 相较于传统的 RNN 模型更具有优势,因为传统的 RNN 模型是基于逐个时间步进行计算的,而 Transformer-based natural language processing 则是基于自注意力机制,...

统计语言模型(Statistical Language Model)-学习笔记

标签： N-gram NLP

统计语言模型是自然语言处理（Natural Language Processing,NLP）的基础模型，是从概率统计角度出发，解决自然语言上下文相关的特性的数学模型。统计语言模型的核心就是判断一个句子在文本中出现的概率。模型 ...

景观-活性污泥生态系统的构建及氮磷转移规律的定量分析

标签：景观-活性污泥生态系统氮磷转移规律定量分析

景观-活性污泥生态系统的构建及氮磷转移规律的定量分析 The Establishment of Landscape-Activated Sludge Ecological System(LASeM) and the Quantitative Analysis of the Transfer Law of Nitrogen and ...

Prompt-Tuning——深度解读一种新的微调范式

标签：自然语言处理深度学习人工智能

以Pre-training + Fine-tuning 的模式在诸多自然语言处理（NLP）任务中被广泛使用，其先在Pre-training阶段通过一个模型在大规模无监督语料上预先训练一个预训练语言模型（Pre-trained Language Model，PrLM），然后...

目标检测经典论文——Fast R-CNN论文翻译（中英文对照版）：Fast R-CNN（Ross Girshick， Microsoft ...

标签： Fast R-CNN R-CNN 目标检测

Fast R-CNN Ross Girshick Microsoft Research（微软研究院） ... Abstract This paper proposes a Fast Region-based Convolutional Network method (Fast R-CNN) for object detection....

笔记：CIFAR-01 和 CIFAR-100 数据集内容和格式详解

标签： CIFAR-10 CIFAR-100 CIFAR

详细介绍 CIFAR-10 和 CIFAR-100 数据集内容和数据格式。

GPT-2 论文翻译

标签： NLP GPT-2 无监督预训练

GPT-2 论文翻译 ...原论文：《Language Models are Unsupervised Multitask Learners》原论文地址：https://d4mucfpksywv.cloudfront.net/better-language-models/language_models_are_unsupervised_multita...

Paper：《Pre-trained Models for Natural Language Processing: A Survey自然语言处理的预训练模型综述》...

标签：自然语言处理 NLP 预训练模型

Paper：《Pre-trained Models for Natural Language Processing: A Survey自然语言处理的预训练模型综述》翻译与解读目录 Paper：《Pre-trained Models for Natural Language Processing: A Survey自然语言处理的...

Plant Leaves Classification: A Few-Shot Learning Method Based on Siamese Network

标签： plant leaves classification few-shot Siamese Network

Plant Leaves Classification: A Few-Shot LearningMethod Based on Siamese NetworkAbstractIntroductionPROPOSED CNN STRUCTUREINITIAL CNN ANALYSISEXPERIMENTAL STRUCTURE AND ALGORITHMS ...

简单的基于Tacotron2的中英文混语言合成, 包括code-switch和voice clone. 以及深入结构设计的探讨.

标签： Tacotron2 混语言合成 code-switching

之前的讨论 ... 34.复现了Tacotron2 中文和英文单语言合成, 音质满足期望(忽略inference时间), 下一步方向在哪里, 如果想Expressive, 靠谱的方法有什么经验吗, 同时我尝试下混语言: expressive最简单用look up table...